Khi đang ở Cannes, Pháp với hai con trai, Nikolay đã nhanh chóng trở về Nga ngay lập tức vào tháng 3 năm 1881 khi tin tức anh trai ông Aleksandr II bị ám sát. Ngày 15 tháng 5 năm 1881 đánh dấu nước Nga có một vị Sa hoàng mới tức Aleksandr III lên ngôi đã đánh dấu mối quan hệ ngày càng xa cách của ông với Quân chủ Nga. Cháu trai ông, Aleksandr III không có thiện cảm đặc biệt với chú của mình, tất cả quyền lực của ông dưới thời anh trai đã bị hạn chế nhiều sau khi Aleksandr III lên ngôi cộng thêm bị ảnh hưởng nặng nề hơn khi Nikolay dính líu đến các vụ bê bối quân sự, ông đã tấn công các quan chức chính phủ và chỉ huy quân đội một cách vô kỷ luật và cuối cùng bị cách chức. Việc không được lòng Sa hoàng Aleksandr III đã một phần thu hẹp quyền lực và vị trí của ông trong triều đình Nga và đã không còn là một nhân vật quan trọng. Vợ của ông cũng đã rời bỏ ông vào năm 1881 và chuyển đến Kiev khi Nikolay công khai sống với tình nhân, mặc dù Nữ đại vương công Aleksandra Petrovna từ chối ly hôn và 2 người con trai của ông đã đứng về phía mẹ trong cuộc hôn nhân tan vỡ này.[11][12] Sự suy sụp trong sự nghiệp và gia đình đã khiến cho Nikolay nhanh chóng cầm cố Cung điện Nicholas ở St đó là số vốn tài sản cuối cùng của ông vì lối sống xa hoa, cho đến năm 1882, ông chính thúc bị quản thúc.[13] Cháu trai ông Alexander III, đã công khai chỉ trích Nicholas vì đã ngoại tình.

Việc Nữ đại vương công Alexandra Petrovna không chịu ly hôn đã khiến cho các con riêng của Nikolay dù sinh ra tại thời điểm ông đã công khai nhưng vẫn được coi là bất hợp pháp và không được mang tước vị Đại vương công và họ Romanov. Cái chết bất ngờ của tình nhân ở Crimea đã khiến cho Nikolay trở nên điên loạn và mắc chứng mơ ảo về mọi phụ nữ đều yêu ông.[14] Tình hình trở nên tệ hơn khi Nikolay tấn công một nam vũ công trẻ mà ông cho là phụ nữ. Sau một thời gian dài bị giam lỏng trong nhà ở Crimea, vào ngày 25 tháng 4 năm 1891 ông qua đời ở Alupka. Việc đánh mất đi vị trí quan trọng trong Hoàng gia Nga đã khiến cho sự ra đi của ông không được mọi người tiếc thương, cuối cùng tất cả các tài sản kết xù của ông đã chính thức bị bán để trả khoảng nợ khổng lồ của mình.[15]